MetaBackdoor: Exploiting Positional Encoding as a Backdoor Attack Surface in LLMs
MetaBackdoor：利用位置编码作为 LLM 后门攻击面
🧭 LLM 安全 · 后门攻击
Institute of Science Tokyo · Microsoft Azure · Microsoft Security Response Center
提出基于位置编码的无内容触发器后门攻击，能泄露系统提示或自我激活恶意行为
📌 工作参考价值（4 点）
- 在电商/推荐 Agent 的多轮对话中，警惕序列长度自然增长可能触发隐藏后门，需监控对话轮次与 token 长度，设置安全阈值。
- 部署 LLM 前，应对位置编码相关的后门进行红队测试，不仅检测内容触发器，还要扫描与位置相关的异常行为。
- 系统提示、工具调用等敏感逻辑应分层隔离，减少后门泄密面；即使输入文本干净，也可能被位置触发泄露。
- 防御策略不能仅依赖文本可疑检测，应引入位置感知的防御机制，如限制上下文长度或对特定位置范围的输出加强审核。